Лопнет ли ИИ как пузырь? Цифровой социализм или — апокалипсис?

Поможет ли технология искусственного интеллекта (ИИ) справиться с кризисными явлениями в России и в мире? «Свободная Пресса» обсудила эту тему с Константином Воронцовым, профессором РАН, заведующим кафедрами машинного обучения МГУ им. Ломоносова и МФТИ, лауреатом премии Yandex ML Prize за вклад в развитие ИИ в России и Еленой Ведутой, доктором экономических наук, профессором, заведующей кафедрой стратегического планирования и экономической политики факультета государственного управления МГУ им Ломоносова.

«СП»: ИИ сейчас повсюду. Но темой ИИ занимались порядка 70 лет. Почему сейчас произошел прорыв?

— Константин Воронцов: Термин «Искусственный интеллект» придумали американские ученые в 1956 году. Термин не самый удачный, но отражал мечту об умных, как человек, компьютерах. А прорыв в этой области науки произошел примерно 10 лет назад.

---

СМОТРИТЕ В СП-ВИДЕО

Прямые ссылки передачи в RuTube, YouTube, VK. Смотрите все передачи СП-Видео

---

Скачок мощностей вычислительной техники позволил обучать нейронную сеть на всём объеме текстов, написанных человечеством за всю историю и на всех языках. И появились языковые модели, умеющие отвечать на вопросы уже неотличимо от человека.

При этом, мы никогда не обучали эту модель рассуждать, излагать, писать сочинения, даже делать переводы с одного языка на другой. Она научилась этому сама. И оказалось, что в человеческом языке содержится всё: умение рассуждать, думать, в том числе системно. Эти модели уже доказывают теоремы на уровне лучших математиков мира и международных олимпиад.

«СП»: Используется ли ИИ в планировании экономики?

— Елена Ведута: Когда начинаешь моделировать желаемое движение экономики к поставленной цели развития, ни одна машина не сможет найти алгоритмы. Нужен кибернетической подход.

А кибернетика — это наука управления объектом, который рассматривается как живой объект в силу его множества взаимосвязей. Но можно передать ИИ множество балансовых, рутинных расчетов, которые в своё время погубили Госплан.

Ещё советники Кеннеди писали, что, если русские сделают автоматизированную систему плановых расчетов, США проиграют в холодной войне. Но ни один компьютер не научить диалектическому методу мышления, высоту всегда берет человеческий мозг.

«СП»: Насколько «страшилки» про ИИ, например, что ИИ сократит много рабочих мест, люди поглупеют, правомочны?

— К.В.: Это зависит от нас, от нашего человеческого целеполагания. Нам внушают безумную мысль, что биологическая стадия развития разума заканчивается, вместо неё будет машинная стадия. И мы, мол, должны передать эстафету разума нашим машинам, а сами «ползти на кладбище» со своей «звериной натурой» внутри.

Но ведь мы люди, мы строим человеческую цивилизацию, нашу, для себя. И здесь надо быть «карбоновым шовинистом». То есть любой индивид своего вида должен быть патриотом своего вида, иначе он не выживет. Машины нам в помощь, и тут нужна новая цивилизационная идеология.

«СП»: Какого рода?

— К. В: Раньше идеология разрабатывалась в интересах определенной социальной группы. Для подчинения себе, для защиты от внешней угрозы. Но впервые в истории человечества оно само является угрозой самому себе. Мы создали такие технологии, овладели такими энергиями, что риски самоуничтожения стали расти по экспоненте.

Всё меньшая группа людей, со всё меньшими ресурсами и средствами может устроить катастрофы в масштабах всей планеты и поставить под угрозу жизнь на Земле. Значит, нам нужна идеология общечеловеческая, чтобы противостоять этой общечеловеческой угрозе, которую мы же сами себе и создали.

«СП»: А чем может быть полезен ИИ при выработке таких новых подходов?

— К.В.: Искусственный интеллект никогда не сформулирует нам цели развития. Но он может быть полезен в междисциплинарных проектах. Скажем, таким проектом является развитие экономики большой страны, это может осилить только большой мозговой центр. Людям с разным опытом, подходами, договариваться трудно.

И здесь искусственный интеллект может помочь создать условия, где мы друг друга будем понимать лучше. Перевести с одного русского языка на другой русский. И нам остаётся только создать среду, где можно собирать междисциплинарные команды для выработки и реализации образа будущего.

— Е. В: А пока реализуется жесткий курс в экономике, фактически, на уничтожение человечества. Весь мир сегодня в системе глобального управления идет к катастрофе. А ИИ, который пытаются внедрить в экономике, лишь цифрует экономический хаос. Западная практика не позволяет создать алгоритмы, которые могли бы «включить» тот же искусственный интеллект в интересах улучшения жизни людей.

Сегодняшние огромные затраты на ИИ надувают пузырь, который обязательно лопнет с ужасным кризисом. То есть вывод такой: нынешнее направление развития исследований и создания ИИ не имеет отношения к повышению эффективности общественной производительности труда и повышению эффективности управленческих решений в области экономики. Разве что повышает бытовой комфорт.

«СП»: Но в ряде сфер рост производительности труда ИИ уже может обеспечить?

— К.В.: Есть два разных вида искусственного интеллекта. Это функциональный искусственный интеллект и генеративный, который и создал хайп.

Первый развивался с середины 50-х годов и использовался для автоматизации. Что это такое? Это алгоритмы, которые обучаются по данным для принятия решения или прогнозированию. Но лет 15 назад отделилась интересная ветка.

Это так называемые генеративные модели, которые не просто дают ответы типа «одно число» или одно «да или нет» решение, а учатся генерировать сложно структурированные объекты, такие, как текст, картинки, видео.

Генеративный ИИ, с одной стороны, заслоняет нашей эмоциональное пространство, но, с другой стороны, способен выполнять массу интересных и нужных задач.

Но драйвер экономики — тот самый функциональный искусственный интеллект, который развивался все предыдущие 10-летия и использовался в автоматизации производств, в бизнес-планировании, в огромном количестве задач типа логистики, выдачи кредитов.

Надо уменьшить хайп и осознать, что технологии функционального искусственного интеллекта не требуют сотен гигаватт электроэнергии и триллионов долларов на дата-центры. Но он реально полезен.

— Е.В.: Идея планирования экономики состояла в том, что благодаря внедрению более эффективных технологий, люди высвобождаются. Но одновременно план рассчитывает, как вовлечь высвободившуюся рабочую силу в изменение структуры экономики в интересах улучшения качества жизни людей.

«СП»: Для таких целей нужно менять политэкономические основы и подходы к формированию элит?

— К.В.: Улучшение качества жизни людей сейчас не является самоцелью ни на каком уровне. У верхов интерес всегда один: сохранение власти. Если для сохранения власти, чтобы не было революций, бунтов, необходимо улучшать качество жизни людей, в этих рамках они делают.

То, что в головах у элит связано с человеческой биологией. Случайных людей там нет, там есть только люди с аномальной доминантностью. И им биологически наплевать на всех людей.

— Е.В.: Да, кроме экономики есть еще проблема воспитания тех личностей, которые должны руководить страной. И есть ещё проблема контроля «снизу» за действиями «сверху». В любое время существуют еще альтруисты, которые как личности гораздо выше любого прагматика.

Они больше всего озабочены тем, чтобы будущие поколения, которые придут, должны жить лучше, чем сегодня.

Но, согласно «Капиталу» Маркса, пока не будет создана материально-техническая база нового строя, всегда есть опасность возвращения к старому. Что с нами и произошло.

— К.В.: Надо взращивать новую элиту. Дело в психологии и биологии, в человеческой природе. Вот каковы личные мотивации человека становиться управленцем?

Кант говорил, что человек никогда не должен быть средством, он цель. Теперь вопрос, а если мы на человека возложили множество KPI? И он трудится ради результата, а не ради того, что он просто человек?

«СП»: А как надо регулировать ИИ?

— К.В.: Здесь много реальных опасностей. Скажем, наши граждане активно пользуются генеративными моделями, обученными по смещенным данным, и уже были пойманы в политической предвзятости.

Нужно обучать людей, чтобы не было когнитивных искажений, избыточного доверия к этим моделям. Как общаться с этими моделями, должно быть общим знанием. И у нас должна быть своя модель, хотя бы одна, несоизмеримо хорошая.

«СП»: А как вы относитесь к тому, что «цифровой суверенитет» начал формироваться через запреты, а не через здоровую конкуренцию. Например, блокировку Telegram, встроенного в коммуникации и даже в экономику?

— К.В.: Запрещать — всегда проще, чем договариваться. Тот же Telegram, на мой взгляд, не представляет такой опасности, не нужно запрещать, а нужно воспитывать людей.

Должно быть критическое мышление, понимание, как устроена пропаганда, что такое манипуляция.

— Е.В.: Запреты — позиция слабаков, пытающихся силовым методом запретить людям мыслить. Это порождает лишь чувство недоверия к власти. А я сомневаюсь, что кому-то нужна озлобленность людей на власть.

К тому же, любой профессионал хочет знать, что в мире происходит в его сфере деятельности.

С блокировками нас пытаются загнать в джунгли, оторванные от всего мира. Но сегодня перед человечеством стоят общемировые угрозы. И Россия докажет, что решение этих проблем именно в руках нашей страны.